FlexRank: Descomposición Anidada de Bajo Rango para Despliegue Adaptativo
FlexRank extrae submodelos de capacidad variable de modelos sin reentrenar. Optimiza costos y rendimiento para despliegue adaptativo a todo presupuesto.
#bajo rango
OP-LoRA: La bendición de la dimensionalidad
OP-LoRA mejora el rendimiento de LoRA al añadir MLP temporal que se descarta. Logra hasta 15 puntos más en generación de imágenes.
RefLoRA: Adaptación de Bajo Rango Refactorizada para Modelos Grandes
Descubre RefLoRA, una nueva técnica de fine-tuning que acelera la convergencia y mejora el rendimiento de modelos grandes con mínimo costo computacional.
LRAgent: Caché KV Compartido Eficiente para Agentes Multi-LoRA
Descubre cómo LRAgent comparte eficientemente la caché KV entre agentes Multi-LoRA, reduciendo memoria y cómputo sin perder precisión. ¡Optimiza tus LLMs!
GPTQ-intrinsic LoRA: Cuantización de baja precisión con adaptación de bajo rango
GPTQ-intrinsic LoRA: mejora la cuantización de baja precisión con corrección de bajo rango. Algoritmo casi óptimo para modelos grandes.
GPTQ-intrinsic LoRA: algoritmo cuasióptimo para cuantización y adaptación de bajo rango
GPTQ-intrinsic LoRA combina cuantización de baja precisión y adaptación de bajo rango para comprimir redes neuronales. Algoritmo sin entrenamiento mejora modelos como Qwen3 y DeiT.
ProjQ: Compresión de LLM con Cuantización y Adaptadores
ProjQ revoluciona la compresión de LLMs al proyectar el ruido de cuantización en un subespacio de bajo rango. Obtén modelos más ligeros y eficientes con fine-tuning mejorado.
ADNTN: Redes Tensoriales Diferenciables para Compresión Exponencial de DNN
Explora ADNTN: comprime DNN hasta 77,000x, mejorando precisión. Redes tensoriales no lineales automáticamente diferenciables.
Adaptadores CP: pasos de parámetros más finos en PEFT
Los adaptadores CP ofrecen pasos de parámetros 21 veces más finos que LoRA. ¿Mejoran la precisión? Estudio controlado en OPT-1.3B revela resultados según la tarea.
Optimización bayesiana causal con transferencia entre intervenciones
Descubre cómo la optimización bayesiana causal transfiere información entre intervenciones, reduciendo costos y mejorando estimaciones en sistemas.
Reexaminando la adaptación de bajo rango para ajuste fino privado de LLMs
Descubre cómo restaurar el rápido decaimiento de valores singulares mejora la eficiencia del ajuste fino privado de LLMs con DP-SGD, sin comprometer privacidad.
Entrenamiento sin gradientes de SNN con estrategias evolutivas de bajo rango
Descubre cómo el método EGGROLL entrena redes neuronales de picos sin gradientes, logrando un 79.21% de precisión y 2.23x más rápido en hardware neuromórfico.
CSULoRA: Actualización Segura de Bajo Rango para Modelos de Lenguaje
CSULoRA corrige adaptadores LoRA para evitar que el fine-tuning adversarial dañe la seguridad de los LLMs, preservando la utilidad del modelo. Descubre cómo.
iLoRA: Adaptación Bayesiana de Bajo Rango con Grafos de Interacción Latente para Diagnóstico de Microbioma
iLoRA: adaptación bayesiana de bajo rango para diagnóstico de microbioma. Método innovador de machine learning para análisis preciso.
¿Cómo recuerda LoRA? Una ley de memoria paramétrica para el ajuste fino de LLM
<meta name=description content=Descubre LoRA, la técnica de memoria paramétrica que revoluciona el ajuste fino de LLMs. Eficiente, rápida y sin comprometer el rendimiento.>
VideoMLA: Caché KV latente de bajo rango para difusión de video autoregresiva a escala de minutos
<meta name=description content=VideoMLA presenta difusión de video autoregresiva a escala de minutos usando caché KV latente de bajo rango. Una innovación eficiente para generación de video largo.>
Adaptación de bajo rango estructurada por energía para aprendizaje continuo
<meta name=description content=Aprendizaje-continuo-con-adaptación-de-bajo-rango-y-energía-para-optimizar-modelos-de-IA>